Generative AI може да промени изборите тази година — Индонезия показва как
ДЖАКАРТА — Фика Джулиана Путри, 19-годишна магазинерка в Източна Джакарта, планира да гласува на президентските избори в Индонезия следващата седмица за веднъж - страхува се бившият командир на специалните части. Харесва го, казва тя, защото е пухкав.
Анимационна версия на ген. Прабово Субианто с очи на сърна — създадена с помощта на генеративен AI — е изобразена на билбордове в цяла Индонезия. Той се възпроизвежда върху суитчъри и стикери и се показва на видно място в публикации с етикет #Prabowo, които имат около 19 милиарда гледания в TikTok.
Прабово е министър на отбраната на Индонезия. Но в социалните медии неговият пълничък бузест аватар с изкуствен интелект прави сърца с пръсти в корейски стил и люлка на любимата му котка, Боби, за радост на гласоподавателите на Gen Z. Около половината от 205-те милиона гласоподаватели в Индонезия са под 40 години.
Общите избори на 14 февруари в Индонезия, третата по големина демокрация в света, предлагат бегла представа как генеративният ИИ може да трансформира големи- мащабна политическа кампания, казват експерти.
Карикатурата, генерирана от AI, е централна за изборното ребрандиране на Прабово, който е далеч напред в анкетите. Вместо да се представя като пламенен националист, както направи в две предишни неуспешни кандидатури за президент, новата крилата фраза на 72-годишния мъж е „gemoy“ – което е индонезийски жаргон за сладък и пухкав.
Prabowo — и неговият двойник, създаден с помощта на технология от американската фирма Midjourney Inc — води стотици кандидати в използването на генеративни AI инструменти за създаване на изкуство за кампании, проследяване на социални медии настроения, изграждане на интерактивни чатботове и насочване към избиратели.
Кампанията Prabowo и Midjourney, чиито насоки забраняват използването й за политически кампании, не отговориха на искания за коментар.
„Това са първите избори, които виждаме да използват тези инструменти в мащаб“, каза Кейти Харбат, която до 2021 г. беше най-висшият служител по изборната политика в Meta (META.O), отваря нов раздел
и сега пише бюлетин за технологиите и демокрацията.
Харбат, който изрази изненада, че AI инструментите са били възприети от кампании в Индонезия толкова бързо, каза, че е твърде рано е да се прецени цялостното въздействие върху изборите от такова „безпрецедентно и новаторско“ използване на технология.
Ройтерс интервюира 26 души, за да оцени използването на AI технология в кампанията на Индонезия, включително политически съветници, лобисти, технически ръководители, експерти и художници, създаващи генеративни AI изображения за политици. Някои говориха при условие за анонимност, тъй като не бяха упълномощени да говорят с медиите.
Те описаха доставчици и кампании, прекрачващи границите на насоките, издадени от доставчици като Midjourney и лидера на пазара на генеративен AI OpenAI . Правителството на Индонезия все още не е формулирало задължителни правила за използването на AI инструменти.
С страните, в които живее една трета от населението на света, ще гласува тази година, включително Съединените щати и Индия , изборите в Индонезия са тест за това как OpenAI ще контролира политиките си, според седем политически лобисти и експерти.
Много от инструментите на AI, използвани в изборите в Индонезия, се захранват от OpenAI, девет казаха пред Ройтерс старши служители на кампанията. Това включва платформата на Prabowo, според координатора на неговия дигитален екип.
Собственикът на ChatGPT, базиран в Сан Франциско, миналия месец разкри правила, забраняващи използването й за политически кампании на фона на глобалните страхове от AI, който се намесва в изборите . Те включват забрани за създаване на изображения на действителни хора, включително политици.
OpenAI заяви, че разследва политически чатботове и инструменти, идентифицирани от Ройтерс в Индонезия като използващи нейната технология. Той каза, че първоначалният преглед не е открил „никакви доказателства“ за използването на неговите инструменти в изборите и че се е ангажирал с прозрачност и повишаване на точната информация.
Политическият консултант Йосе Ризал каза, че приложението Pemilu.AI той разработи използва софтуера GPT-4 и 3.5 на OpenAI за изработване на хиперлокални стратегии за кампании и речи.
Индонезийският консултант каза, че е продал услугите на приложението на 700 кандидати за законодателни органи. Reuters не успя да потвърди независимо продажбите.
Pemilu.AI събира демографски данни и обхожда социални медии и новинарски уебсайтове, което му позволява да генерира речи, лозунги и съдържание в социалните медии, съобразено с избирателен район.
Кандидатите изброяват политическите си приоритети и избират как искат да бъдат представени. Най-желаните характеристики сред политиците, използващи Pemilu.AI в Индонезия, най-населената нация с мюсюлманско мнозинство в света, са „скромни“ и „религиозни“, каза Ризал.
Попитан за правилата на OpenAI, Ризал каза, че Pemilu.AI не участва „в създаването на политически кампании“. Вместо това той го описа като комуникационен инструмент за „подкрепа на процеса на вземане на решения от кандидатите“.
След това Rizal планира да пренесе платформата в Индия преди общите избори, очаквани през май. „Тъй като Индонезия е преди САЩ и Индия … тези избори са загряване“, каза той.
Той каза, че Pemilu.AI си сътрудничи тясно с Microsoft, която хоства компанията в своя облак услуга Azure, за да гарантира, че нейните операции са в съответствие с разпоредбите. Microsoft, която е основен инвеститор в OpenAI, каза, че не коментира ангажиментите на клиентите.
Ризал каза, че изпробва версия на Pemilu.AI на AI на Google, след като се обърна към него търговски екип. Google потвърди, че Pemilu.AI е извършил предварителна работа с помощта на своя AI и е станал клиент на облачна услуга. Google каза, че няма ограничения за използването на своя чатбот Bard за политическа кампания, освен забраната за дезинформация.
Изборите в Индонезия тестват границите на това, което някои компании за изкуствен интелект смятат за политическа кампания.
Правилата на OpenAI, актуализирани на 10 януари, забраняват използването на неговата технология за всякакви политически кампании или лобиране, включително генериране на материали за кампании, персонализирани или насочени към конкретни демографски групи.
Същия месец OpenAI забрани разработчика на бот за кандидата за президент на Демократическата партия в САЩ Дийн Филипс, първият път, когато предприе действия срещу подобни правила.
Поддръжници на използването на генериращ AI в Индонезия изборите казват, че е предоставил на кандидатите за законодателни депутати достъп до персонализирани инструменти за провеждане на кампании, които иначе биха били запазени за основни претенденти с по-големи бюджети.
Продължаващото приемане на AI е съвсем естествено, каза Рази Талиб, който управлява дигиталния екип за друг кандидат за президент, Аниес Басведан, бивш губернатор на Джакарта. „Може би резултатите от изборите ще доведат до извлечени уроци, които ще увеличат процента на приемане“ другаде, каза той.
Съветник на Ganjar Pranowo, кандидатът на най-голямата партия в парламента, потвърдено, че изкуственият интелект също е бил използван за неговата „творческа кампания“.
Прабово, с преднина от 20 пункта в анкетите и имплицитната подкрепа на популярния президент на Индонезия Джоко Видодо, е най-големият бенефициент на generative AI този цикъл, използвайки го, за да укрепи подкрепата си сред Gen Z.
Милиони млади гласоподаватели не бяха живи, когато Prabowo беше уволнен от армията на Индонезия в края на 1990-те години на фона на обвинения в нарушения на правата, което той винаги е отричал.
Поддръжниците могат да използват приложението за кампанията на Prabowo, за да се вмъкнат в генерирани от AI сцени, като преход в джунглата заедно с облечения в сафари политик, които след това се споделят в социалните медии.
„Някои казват, че AI не е добър за политиката, но AI предизвиква интерес у хората“, каза 25-годишният художник Adriansyah, който със съпругата си Lusi Yulistia беше поръчано да направи създадено от Midjourney изкуство на Прабово и неговия вицепартньор, 36-годишния син на президента Видодо.
Възрастта за гласуване в Индонезия е 17 и януарско проучване на социолога Indikator Politik установи че Prabowo има повече от 60% от гласовете на Gen Z. Той беше и най-популярният кандидат сред милениалите с 42% от тяхната подкрепа.
Доброволческото звено на кампанията стартира генеративната AI платформа PrabowoGibran.ai през декември, за да помогне на своите 15 000 „киберотряд“ доброволци проследяват онлайн настроенията и споделят изкуство, генерирано от изкуствен интелект, в социалните медии.
Националният координатор Антъни Леонг каза на Reuters, че платформата използва технология OpenAI и вътрешен софтуер.
В Индонезия политически кампании са наели създатели да използват инструменти за преобразуване на текст в изкуство като Midjourney, Leonardo AI, Microsoft Bing и Pika Labs, казаха петима художници пред Reuters.
Говорител за Microsoft Bing, който се захранва от модела DALL·E за текст към изображение на OpenAI, каза, че обществени личности могат да поискат ограничаване на създаването на изображения, свързани с техните имена.
LeonardoAI и Pika Labs не отговори на искания за коментар.
„Вярно е, че приложението има ограничения по отношение на политическо съдържание“, каза Луси, имайки предвид Midjourney. „По същество използвам приложението само, за да променя характера на оригиналната снимка в определена тема.“
Кампанията на Anies стартира през януари базиран на OpenAI WhatsApp чатбот, който отговаря на въпроси относно неговия политики.
Това последва подобен инструмент от лагера Prabowo, който беше свален малко след пускането му през декември, след като неправилно приписа седем стълба на държавната идеология на Индонезия, когато има само пет. Той не е възстановен.
Кампанията на Ганджар е внедрила табло за управление, което използва технологията OpenAI и обхожда данни онлайн, за да предвиди теми за разговори и да предложи предупреждения в социалните медии в реално време относно кандидата, каза съветник Andi Widjajanto.
Един противоречив случай на използване на AI възникна през януари, когато партията Golkar, която подкрепя Prabowo, пусна „deepfake“ видеоклипове на покойния силен владетел Suharto, който призовава избирателите да подкрепят нейните кандидати . Клиповете, съдържащи послания на кампанията, бяха маркирани като генерирани от AI.
Застъпническият екип за проблемите на изборите (TAPP), базирана в Джакарта организация с нестопанска цел, каза в изявление, че видеоклиповете, които остават онлайн , показа потенциала на AI за манипулиране на избирателите.
Дара Насутион, висш дигитален служител на Golkar, нарече видеоклиповете „положителни послания“.
Изображението на Сухарто беше създаден с Midjourney и приложението за изображения Leonardo AI, докато гласът му е създаден с помощта на софтуера на стартъпа за клониране на глас ElevenLabs от САЩ, комбиниран с вътрешна технология, каза тя.
Leonardo AI и ElevenLabs не отговориха на заявки за коментар.
Трима наблюдатели на изборите казаха на Ройтерс, че не са виждали AI да се използва за разпространение на дезинформация и дезинформация в мащаб по време на състезанието.
“ Дезинформацията е ограничена в сравнение с изборите през 2019 г.“, каза Арибово Сасмито, съосновател на организацията за проверка на фактите Mafindo.
Ройтерс
